Trong năm 1925, khi còn học ở bậc Thành Chung (nay là trường THPT Chuyên Lê Hồng Phong, thành phố Nam Định), Đặng Xuân Khu đã tham gia phong trào đấu tranh đòi ân xá cho Phan Bội Châu, lãnh đạo cuộc bãi khóa ở Nam Định để truy điệu Phan Chu Trinh. Năm 1926, ông bị trường đuổi học.

Năm 1927, Đặng Xuân Khu chuyển lên Hà Nội, tiếp tục học ở trường Cao đẳng Thương mại và tham gia Việt Nam Thanh niên Cách mạng Đồng chí Hội. Năm 1929, ông tham gia cuộc vận động thành lập Đông Dương Cộng sản Đảng ở Bắc Kỳ và trở thành một trong những đảng viên đầu tiên của đảng này.

Năm 1930, Đặng Xuân Khu được chỉ định vào Ban tuyên truyền cổ động Trung ương của Đảng Cộng sản Đông Dương. Cuối năm này, ông bị Pháp bắt và kết án 12 năm tù và đày đi Sơn La, đến năm 1936 được trả tự do.

Giai đoạn 1936 – 1939, Đặng Xuân Khu là Xứ Ủy viên Bắc Kỳ cùng Hoàng Văn Thụ và Hoàng Quốc Việt, đại biểu của Đảng Cộng sản Đông Dương trong Ủy ban Mặt trận Dân chủ Bắc Kỳ. Năm 1940, ông được cử làm chủ bút báo Cờ giải phóng, cơ quan của Xứ ủy Bắc Kỳ, kiêm phụ trách các tờ báo tiếng Pháp như Le Travail, Rassemblement, En Avant và báo Tin tức.